Zurück
Ganz gleich, in welcher Branche Sie tätig sind, wenn Sie im Technologie- oder Sicherheitsbereich arbeiten, wurden Sie wahrscheinlich schon mit Fragen zu agentenbasierter KI überhäuft und wie diese entweder Ihre Mitarbeiterleistung steigern oder Ihre Bedrohungserkennung erheblich verbessern kann.
Mit einigen Jahren Erfahrung wollte ich einen Blog mit Ratschlägen schreiben, wie man sich am besten dem aktuellen „glänzenden neuen Ding“ annähert und für sich sichert ... aber es ist Weihnachtszeit, also wäre es fahrlässig, keine lustige, festliche Analogie zu verwenden.
Hier sind einige weihnachtliche Ratschläge, die ich zum Schutz und zur Aktivierung von agentischer KI geben kann.
Eine Liste machen und sie zweimal überprüfen
Am besten beginnt man damit, sicherzustellen, dass man darauf achtet, was die Organisation verwenden möchte.
Ähnlich wie jeder eine Wunschliste für Weihnachten erstellt, müssen Sie wissen, welche Anwendungen und Tools Ihre Organisation einsetzen möchte. Wie wir im Laufe der Jahre bei vielen neuen, vielversprechenden Tools festgestellt haben, finden die Leute immer einen Weg, das zu benutzen, was sie wollen, ob die Sicherheitsabteilung davon weiß oder nicht. In diesem Jahr steht agentische KI wahrscheinlich sehr weit oben auf diesen Wunschlisten.
Wie wir alle bei der generativen KI vor ein paar Jahren gelernt haben, macht es keinen Sinn, diese Art von Tools einfach unbesehen zu blockieren. Stattdessen ist es am besten, einen Weg zu finden, sie entsprechend zu aktivieren. Aber bitte denken Sie daran: Auch wenn Hoffnung bei Kindern am Heiligabend eine wichtige Taktik ist, ist sie in der Cybersicherheit keine Strategie. Als Sicherheitsexperte müssen Sie einen Plan haben, wie Sie diese Tools und Anwendungen aktivieren und sichern wollen. Und das bedeutet, mit Transparenz zu beginnen.
Erkennen, wer artig und wer unartig ist
Eines ist sicher: Der große Mann in Rot hat immer alles im Blick. Der Weihnachtsmann hat stets den Überblick darüber, wer böse und wer brav ist, und Sie möchten diese Art von Überblick auch haben, wenn Sie ein neues Tool in Ihr Unternehmen aufnehmen.
Dies gilt nicht weniger wichtig für agentenbasierte KI-Lösungen, die sich nach ihrer Implementierung sehr schnell entwickeln und bei unsachgemäßer Konfiguration zu erheblichen Risiken oder sogar Missbrauch führen können.
Stellen Sie sicher, dass Sie wissen, welche Apps Zugriff auf die Daten Ihrer Organisation haben und wie diese genutzt werden. Danach müssen Sie die richtigen Richtlinien festlegen, um sicherzustellen, dass Sie den Zugriff auf und die Nutzung von sensiblen oder vertraulichen Daten kontrollieren.
Nehmen wir an, ich setze eine Reihe von Agenten innerhalb eines Unternehmens ein und einer dieser Agenten erhält die Anweisung, etwas Falsches zu tun. Es ist wichtig, dass wir zunächst Transparenz schaffen, aber wir müssen uns trotzdem in unbekanntes Terrain begeben und herausfinden, wie groß der tatsächliche Schaden ist.
Und dafür braucht man die richtigen Leute an der Spitze … was mich zu meinem nächsten Tipp führt:
Die Rentiere den Schlitten ziehen lassen
Als CISO bin ich ein großer Befürworter eines entwicklerorientierten Ansatzes, wenn es darum geht, Wege zu finden, um KI zu sichern und zu ermöglichen.
Wenn man sich mit einem so neuen und sich ständig weiterentwickelnden Technologiegebiet befasst, wird es immer Grenzen dessen geben, was man persönlich wissen kann. Deshalb müssen Sie sich auf ein vertrauenswürdiges Team stützen können, das Ihnen hilft, die Dinge voranzubringen, genau wie der Weihnachtsmann es mit seinem zuverlässigen Team von Rentieren tut, die den Schlitten ziehen.
Ich verlasse mich darauf, dass meine Entwickler mir dabei helfen, die sich ergebenen schwierigen Fragen zu stellen und zu beantworten. Fragen wie „Was passiert, wenn ein bösartiger Agent abtrünnig wird?“ Wir müssen herausfinden: Wie untersuche ich das? Gehe ich zum Server? Gehe ich zum Server und sichere mir den Speicher? Verwende ich dazu traditionelle forensische Methoden und Incident-Response-Merkmale oder muss ich den gesamten Prozess überdenken? Muss ich etwas völlig anderes verwenden?
Keine dieser Fragen ist leicht zu beantworten. Aber hey – es ist auch nicht einfach, ein fliegendes Rentier zu sein! Doch wenn man das Team jetzt schon auf diese Denkweise einstellt – bevor sich eine agentenbasierte KI in der Organisation unkontrollierbar anfühlt –, ermöglicht man ihnen, mit dem Nachdenken über diese Art von Fragen zu beginnen und sich wohlzufühlen, wenn sie jemals in diese Situation geraten.
Ein Team aus fleißigen Elfen zusammenstellen
Gleichzeitig wissen wir aber auch, dass einer der Hauptgründe für die Fröhlichkeit des Weihnachtsmanns darin liegt, dass er ein treues Team von Elfen hat, die die wichtige Arbeit erledigen, damit alles reibungslos läuft.
Neben Entwicklern würde ich jedem Sicherheitsteam auch empfehlen, seine KI-Botschafter zu entwickeln. Dies sind die fleißigen Teammitglieder in den verschiedenen Abteilungen der Organisation, die sich darauf konzentrieren, Informationen vom Sicherheitsteam und dem KI-Governance-Ausschuss mit ihrem Team zu teilen. Ebenso wie Elfen können sie einen Teil der Arbeit übernehmen, indem sie die Vorschläge überprüfen, bevor sie dem KI-Governance-Ausschuss und dem Sicherheitsteam zur Prüfung vorgelegt werden.
Ein Team vertrauenswürdiger KI-Botschafter wird Ihnen helfen, eine interne Ebene der Transparenz zu schaffen und gleichzeitig einige der wichtigsten Best Practices zu kontextualisieren, die jede Abteilung bei neuen KI-Tools anwenden sollte.
Mögen Ihre Tage fröhlich und strahlend (und sicher) sein
Die Weihnachtszeit und der Jahreswechsel können eine stressige Zeit sein, insbesondere wenn Sie versuchen, die neuen Tools einzuführen und zu sichern, die Ihre Organisation gefordert hat. Wenn Sie jedoch wissen, mit welchen Tools Sie arbeiten, von Anfang an für Transparenz sorgen und Entwickler mit der Leitung Ihres Vorhabens betrauen, sind Sie zumindest auf dem richtigen Weg.
Denkt nur daran, genügend Milch und Kekse (oder Pizza und Energy-Drinks) für die Leute bereitzustellen, die dabei helfen, diese Pläne in die Tat umzusetzen.
Den Blog lesen